Sự nghiệp bóng đá của Ferguson[5] bắt đầu năm 16 tuổi với Queen's Park, nơi ông có sự ra mắt trong trận đấu với Stranraer với vai trò tiền đạo. Ông mô tả trận đấu đầu tiên của mình như là một "cơn ác mộng", dù đã ghi cho Queen's Park bàn thắng duy nhất (thua 1-2). Vừa chơi bóng cho Queen's Park, ông vừa làm việc trong xưởng đóng tàu Clyde, nơi mà sau này ông trở thành người quản lý một cửa hàng. Trận đấu đáng chú ý nhất của Ferguson cho Queen Park là thất bại 1-7 trước Queen of the South vào ngày lễ tặng quà (Boxing Day) năm 1959 khi cựu tuyển thủ người Anh Ivor Broadis ghi bốn bàn cho Queen of the South còn Ferguson là người ghi bàn thắng duy nhất cho đội bóng.

Mặc dù đã ghi được 20 bàn thắng trong 31 trận cho Queen's Park, ông không thể có được vị trí chính thức trong đội hình và chuyển đến St Johnstone vào năm 1960. Mặc dù tiếp tục ghi bàn đều đặn, ông vẫn thường xuyên phải ngồi ghế dự bị và tiếp tục muốn ra đi. Ferguson đánh mất sự ủng hộ tại câu lạc bộ và ông thậm chí còn được cho là đã chuyển đến Canada, Tuy nhiên St Johnstone đã không thành công trong việc tìm một tiền đạo mới và Ferguson đã ra sân trong trận đấu với Rangers, ông ghi một hat-trick qua đó giúp đội bóng giành chiến thắng. Mùa hè năm sau, hợp đồng của Ferguson với Dunfermline được ký và ông trở thành cầu thủ bóng đá chuyên nghiệp.

Mùa giải tiếp theo (1964-1965), Dunfermline là ứng cử viên nặng ký cho Giải vô địch quốc gia Scotland và đã đi tới trận chung kết Cúp quốc gia, nhưng Ferguson đã không được tin dùng do màn trình diễn nghèo nàn trước đó trong trận đấu với St Johnstone. Dunfermline thua Celtic 2-3, và kém ngôi vô địch một điểm. Mùa giải 1965-1966 Ferguson đã ghi 45 bàn thắng trong 51 trận đấu cho Dunfermline và trở thành vua phá lưới giải vô địch Scotland với 31 bàn thắng cùng với Joe McBride của Celtic.

Sau đó ông gia nhập Rangers với mức phí 65.000 bảng - một khoản phí kỷ lục cho chuyển nhượng giữa hai câu lạc bộ Scotland thời bấy giờ. Ông bị đổ lỗi cho một bàn thua trong trận chung kết Cúp Scotland năm 1969 - trận đấu trong đó ông đã được chỉ định theo kèm đội trưởng của Celtic Billy McNeill. Sau đó, ông bị buộc phải xuống chơi cùng đội trẻ câu lạc bộ. Theo lời em trai Ferguson, ông đã rất buồn bã và vứt bỏ huy chương được trao. Đã có người cho rằng ông bị phân biệt đối xử tại Rangers sau cuộc hôn nhân của mình với vợ - Cathy Holding (là một người Công giáo), nhưng Ferguson đã nói rõ trong cuốn tự truyện của mình rằng Rangers biết tôn giáo của vợ ông khi ông đến với câu lạc bộ và ông đã rời câu lạc bộ rất miễn cưỡng do sai lầm trong trận chung kết trên.

Sau đó, Nottingham Forest muốn ký hợp đồng với Ferguson, nhưng vợ của ông không muốn chuyển đến Anh vào thời điểm đó nên ông thay vì Nottingham, ông đã tới Falkirk. Ông được đề nghị vai trò huấn luyện viên kiêm cầu thủ, nhưng khi John Prentice trở thành người quản lý, vị trí huấn luyện viên của Ferguson không được chấp nhận. Ferguson phản ứng bằng cách yêu cầu ra đi và chuyển đến Ayr United, nơi ông đã kết thúc sự nghiệp chơi bóng của mình vào năm 1974.